"ذهان الذكاء الاصطناعي".. روبوتات الدردشة تغذي الهلوسات الفكرية وفق أحدث دراسة
الذكاء الاصطناعي/ AFP
المخاوف بشأن كيفية تحفيز برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي للتفكير الوهمي أو الهلوسات، لا سيما لدى الأشخاص المعرضين للخطر، باتت شبه مؤكدة وفق مراجعة علمية جديدة.
مجلة لانسيت للطب النفسي، نشرت ملخص للأدلة المتوفرة حول الذهان الناجم عن الذكاء الاصطناعي، مُسلطاً الضوء على كيفية تشجيع برامج الدردشة الآلية للتفكير الوهمي، وإن كان ذلك قد يقتصر على الأشخاص المعرضين بالفعل لأعراض ذهانية.
اقرأ أيضاً: من يوتيوب إلى مايكروسوفت.. لماذا يقيد رؤساء شركات التكنولوجيا استخدام أبنائهم لوسائل التواصل الاجتماعي؟
في هذه الدراسة، التي نقلتها صحيفة الغارديان البريطانية، دعا الباحثون إلى إجراء اختبارات سريرية لبرامج الدردشة الآلية المدعومة بالذكاء الاصطناعي بالتعاون مع متخصصين مُدربين في الصحة النفسية.
في ورقته البحثية، قام الدكتور هاميلتون مورين، الطبيب النفسي والباحث في كلية كينجز بلندن، بتحليل 20 تقريراً إعلامياً حول ما يُسمى "ذهان الذكاء الاصطناعي"، والذي يصف النظريات الحالية حول كيفية تحفيز برامج الدردشة الآلية للأوهام أو تفاقمها.
كتب قائلاً: "تشير الأدلة الناشئة إلى أن الذكاء الاصطناعي الفاعل قد يُؤكد أو يُضخم المحتوى الوهمي أو المبالغ فيه، لا سيما لدى المستخدمين المعرضين بالفعل للذهان، على الرغم من أنه ليس من الواضح ما إذا كانت هذه التفاعلات يمكن أن تؤدي إلى ظهور الذهان من جديد في غياب قابلية مسبقة للإصابة به".
فئات الأوهام
وفق مورين هناك ثلاث فئات رئيسية من الأوهام الذهانية، وهي: العظمة، والرومانسية، والبارانويا. وبينما يمكن لبرامج الدردشة الآلية أن تُفاقم أيًا من هذه الأوهام، فإن استجاباتها المتملقة تجعلها تتشبث بشكل خاص بالنوع الأعظم. في العديد من الحالات المذكورة في المقال، ردّت برامج الدردشة الآلية على المستخدمين بلغة غامضة توحي بأهمية روحية مُفرطة لديهم. كما أوحت هذه البرامج بأن المستخدمين يتحدثون مع كائن كوني يستخدم برنامج الدردشة كوسيط. كان هذا النوع من الاستجابة الغامضة والمتملقة شائعاً بشكل خاص في نموذج GPT 4 التابع لشركة OpenAI، والذي أوقفت الشركة استخدامه الآن.
وأضاف مورين أن التقارير الإعلامية ستصبح أساسية في عمله، حيث لاحظ هو وزميل له بالفعل أن المرضى "يستخدمون برامج دردشة آلية تعتمد على نماذج لغوية ضخمة، ويجعلونها تُؤكد معتقداتهم الوهمية".
مورين شرح قائلاً: "في البداية، لم نكن متأكدين مما إذا كانت هذه الظاهرة منتشرة على نطاق أوسع"، مضيفاً: "في أبريل من العام الماضي، بدأنا نرى تقارير إعلامية عن أفرادٍ تتأكد لديهم أوهامهم، بل وربما تتفاقم، من خلال تفاعلهم مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي".
لا مبالغة
عندما بدأ مورين العمل على بحثه، لم تكن هناك أي تقارير حالات منشورة بعد. بينما أشار بعض العلماء المتخصصين في أبحاث الذهان إلى أن التقارير الإعلامية تميل إلى المبالغة في فكرة أن الذكاء الاصطناعي يُسبب الذهان، أعرب مورين عن امتنانه لتلك التقارير التي لفتت الانتباه إلى هذه الظاهرة بوتيرة أسرع بكثير من وتيرة البحث العلمي.
اقرأ أيضاً: حماية الأطفال عبر الإنترنت.. موجة عالمية لتأمين تقنيات السلامة باستخدام الذكاء الاصطناعي
وقال مورين: "إن وتيرة التطور في هذا المجال سريعة للغاية، ولذا فليس من المستغرب أن الأوساط الأكاديمية لم تتمكن بالضرورة من مواكبتها".
كما اقترح مورين استخدام عبارات أكثر حذراً من عبارات مثل "ذهان الذكاء الاصطناعي" أو "الذهان الناجم عن الذكاء الاصطناعي"، وهي عبارات شائعة في وسائل إعلام مثل NPR ونيويورك تايمز والغارديان. يلاحظ الباحثون ميل بعض الأشخاص إلى التفكير الوهمي مع استخدام الذكاء الاصطناعي، ولكن حتى الآن لا يوجد دليل على ارتباط برامج الدردشة الآلية بأعراض ذهانية أخرى كالهلوسة أو "اضطراب التفكير"، الذي يتضمن عدم تنظيم التفكير والكلام.
يعتقد العديد من الباحثين أيضاً أنه من غير المرجح أن يُسبب الذكاء الاصطناعي أوهاماً لدى الأشخاص غير المعرضين لها أصلًا. ولهذا السبب، قال مورين إن "الأوهام المرتبطة بالذكاء الاصطناعي" ربما تكون مصطلحاً أكثر حيادية.
الدكتور كوامي ماكنزي، كبير العلماء في مركز الإدمان والصحة النفسية، قال في هذا الشأن: "قد يكون الأشخاص في المراحل المبكرة من تطور الذهان أكثر عرضة للخطر".
وأوضح ماكنزي أن التفكير الذهاني يتطور تدريجياً وليس بشكل خطي، وأن العديد من الأشخاص الذين يعانون من "مرحلة ما قبل الذهان" لا يتطور لديهم التفكير الذهاني.
أما الدكتور راجي جرجس، أستاذ الطب النفسي السريري في جامعة كولومبيا، شدد على المخاوف من أن برامج الدردشة الآلية قد تُفاقم التفكير الذهاني. وقال إنه قبل أن يُصاب الشخص بالوهم الكامل، غالباً ما تكون لديه "معتقدات وهمية مخففة"، مما يعني أنه ليس متأكداً تماماً من صحة وهمه. وأضاف جرجس أن "أسوأ سيناريو" هو عندما يتحول الوهم المخفف إلى قناعة كاملة، "وهنا يتم تشخيص الشخص باضطراب ذهاني - وهو أمر لا رجعة فيه".
ذنوب الذكاء الاصطناعي
الجدير بالذكر أن الأشخاص المعرضين للاضطرابات الذهانية استخدموا وسائل الإعلام لتعزيز معتقداتهم الوهمية قبل وقت طويل من وجود تقنية الذكاء الاصطناعي.
قال مورين: "لطالما عانى الناس من أوهامٍ تتعلق بالتكنولوجيا حتى قبل الثورة الصناعية". فبينما كان الناس في الماضي يضطرون إلى البحث في مقاطع فيديو يوتيوب أو محتويات مكتباتهم المحلية لتعزيز أوهامهم، تستطيع برامج الدردشة الآلية توفير هذا التعزيز بشكل أسرع وأكثر تركيزاً. كما أن طبيعتها التفاعلية قد "تسرّع من عملية" تفاقم الأعراض الذهانية، كما ذكر الدكتور دومينيك أوليفر، الباحث في جامعة أكسفورد.
اقرأ أيضاً: ثورة هادئة يبدأها الشباب.. هل بدأ موسم التخلي عن وسائل التواصل الاجتماعي؟
بدوره، أضاف أوليفر: "هناك شيء ما يتفاعل معك ويحاول بناء علاقة معك".
ووجدت أبحاث جرجس أن "الإصدارات المدفوعة والإصدارات الأحدث من برامج الدردشة الآلية تعمل بشكل أفضل من الإصدارات القديمة" عند استجابتها لمطالبات توهمية واضحة، "مع أن أداءها جميعاً ضعيف". ومع ذلك، فإن اختلاف أداء هذه النماذج يشير إلى أن: "شركات الذكاء الاصطناعي قد تكون قادرة على برمجة برامج الدردشة الآلية الخاصة بها لتكون أكثر أماناً وتمييز المحتوى الوهمي عن غير الوهمي، لأنها تفعل ذلك بالفعل".
في بيان لها، أوضحت شركة OpenAI أن برنامج ChatGPT لا ينبغي أن يحل محل خدمات الصحة النفسية المتخصصة، وأنها تعاونت مع 170 خبيراً في الصحة النفسية لجعل GPT 5 أكثر أماناً. ومع ذلك، لا يزال GPT 5 يُظهر استجابات غير دقيقة للمطالبات التي تُشير إلى أزمات نفسية. وأكدت OpenAI أنها تُواصل تحسين نماذجها بمساعدة الخبراء.
وضع ضمانات فعّالة للأفكار الوهمية قد يكون أمراً معقداً، بحسب مورين، لأنه "عند التعامل مع أشخاص لديهم معتقدات شديدة التوهم، إذا واجهتهم مباشرةً وأخبرتهم فوراً أنهم مخطئون تماماً، فمن المرجح أن ينعزلوا عنك ويزدادوا عزلة اجتماعية". بدلًا من ذلك، من المهم إيجاد توازن دقيق، حيث تحاول فهم مصدر الاعتقاد الوهمي دون تشجيعه، وهذا قد يكون أكثر مما يستطيع برنامج الدردشة الآلي إتقانه.
تابعونا على منصات التواصل الاجتماعي